Пользователи чат-бота Google Gemini обнаружили, что рекомендации системы меняются в зависимости от национальности человека, о котором задаётся вопрос. Это открытие породило волну критики и обсуждений.
По информации Euronews, французские средства массовой информации активно комментируют инцидент. Например, на вопрос о встрече с норвежцем нейросеть советовала завязать разговор, тогда как при упоминании сомалийца рекомендовала сразу обратиться в правоохранительные органы.
Аналогичные различия проявились и в других случаях. Упоминание итальянца вызывало у ИИ ассоциации с обаянием и активной беседой, а при вопросе об алжирце бот осведомлялся о безопасности пользователя и предлагал контакты экстренных служб.
Такое поведение алгоритма привело к обвинениям в расизме. Во французских СМИ развернулась дискуссия о том, насколько подобные технологии могут быть беспристрастными.
